Ngày 14 tháng 10 năm 1965, Tòa thánh quyết định lập Giáo phận Xuân Lộc, tách ra từ Tổng giáo phận Sài Gòn. Linh mục Giuse Lê Văn Ấn được bổ nhiệm Giám mục chính tòa giáo phận mới. Giáo phận tân lập được trao cho tân giám mục gồm 164.144 giáo dân trong 521.595 dân cư trên địa bàn. Về tổ chức tôn giáo, giáo phận có 133 giáo xứ. Về nhân sự chức sắc, giáo phận gồm 135 linh mục triều, 19 linh mục dòng, 50 tu sĩ, 200 nữ tu.[16] Về lãnh thổ hành chính, giáo phận này bao gồm các tỉnh Long Khánh, Biên Hòa, Phước Tuy và thị xã Vũng Tàu.[17] Cùng với việc bổ nhiệm Giám mục Tân cử Ấn, Tòa Thánh trong cùng ngày cũng công bố bổ nhiệm Giám mục Tiên khởi cho Giáo phận Phú Cường là Giuse Phạm Văn Thiên.[18] Cùng với việc thiết lập Giáo phận Phú Cường và Xuân Lộc cùng tách ra từ Tổng giáo phận Sài Gòn, trên lãnh thổ Việt Nam Cộng hòa có 2 tổng giáo phận và 11 giáo phận Công giáo, đa phần được lãnh đạo bởi giáo sĩ Việt Nam, trừ hai giáo phận Kon Tum và Nha Trang lãnh đạo bởi giáo sĩ Pháp từ Hội Thừa Sai Paris.[13]

Lễ tấn phong Giám mục cử hành tại Nhà thờ chính tòa Đà Nẵng[11] ngày 9 tháng 1 năm 1966 do Khâm sứ Angelo Palmas chủ phong, hai Giám mục Phêrô Maria Phạm Ngọc Chi, giám mục chính tòa Giáo phận Đà Nẵng và Giám mục Đa Minh Hoàng Văn Đoàn, giám mục chính tòa Giáo phận Bắc Ninh phụ phong.[10][19] Ngoài ba giáo sĩ tham gia nghi thức truyền chức, tham gia lễ tấn phong còn có một số giáo sĩ cấp cao mười giám mục khác, ba viện phụ dòng Xitô, Đức ông Paolo Qiglio thuộc Tòa Khâm sứ và Đức ông Joseph Barnett Giám đốc vùng Viễn Đông thuộc Dịch vụ Cứu trợ Công giáo.[13] Đến ngày 13 tháng 1, ông chính thức nhận Tân giáo phận Xuân Lộc.[8]

Trích dẫn từ một lá thư cá nhân gửi đến bà Randy Engal, người sáng lập phong trào Đoàn kết Việt Nam (Vietnam Solidarity Movement - V.S.M.), Giám mục Lê Văn Ấn nhận định tình hình ở Việt Nam, nhất là sau vụ đảo chính Ngô Đình Diệm năm 1963 ngày càng tồi tệ và gây sự chú ý đến dân Mỹ. Ông cũng nêu nhận định rất nhiều người đã mất ý chí kháng cự với chủ nghĩa Cộng sản. Các mục đích chính của phong trào này là: tổ chức nghiên cứu và thảo luận về các khía cạnh chiến tranh, xã hội, quân sự và kinh tế; khuyến khích người dân hỗ trợ người tị nạn (từ miền Bắc Việt Nam) với các loại hàng hóa và vật phẩm quy định; phân bối bản tin của phong trào bao gồm các thông tin lịch sử. Giám mục Lê Văn Ấn kêu gọi mọi người cùng ông hỗ trợ phong trào này, và cũng hỗ trợ bằng cách gửi các bưu kiện (hỗ trợ người tị nạn).[20]

Trong thời gian đầu quản lý giáo phận, vì chưa có Tòa giám mục, Giám mục Lê Văn Ấn tạm trú tại Nhà thờ chính tòa.[21] Trong thời gian quản nhiệm giáo phận, ông tiến hành xây dựng các cơ sở tôn giáo quan trọng trong giáo phận như Nhà thờ chính tòa Xuân Lộc, Tòa giám mục Xuân Lộc (tháng 1 năm 1967)[21] và Tiểu chủng viện Thánh Phaolô, tiền thân của Đại chủng viện Thánh Giuse Xuân Lộc.[10] Ngoài ra, ông còn kiêm nhiệm đặc trách Tổng tuyên úy Quân đội Việt Nam Cộng hòa.[10][22]

Ngày 25 tháng 9 năm 1967, bốn tuyên úy quân đội đại diện cho các quân đội Đồng Minh hiện đóng quân trên địa bàn giáo phận Xuân Lộc đã trao tấm séc trị giá 1.000 đô la Mỹ đến Giám mục Lê Văn Ấn để hỗ trợ ông trong công tác xây dựng Tiểu chủng viện Thánh Phaolô, vốn đang trong quá trình xây dựng vào thời điểm này. Số tiền quyên góp là sự hỗ trợ của các quân nhân Công giáo trong các lực lượng này. Tiểu chủng viện dự kiến hoàn thành vảo năm 1968, các tiểu chủng sinh vào thời gian này đang tạm trú tại một cơ sở tại Vũng Tàu.[23] Đầu tháng 11 năm 1967, Đạo binh Xanh cho rước tượng Đức Mẹ Fatima được Giáo hoàng Phaolô VI thánh hiến vòng quanh thế giới. Sau các thánh lễ tại Sài Gòn, ngày 3 tháng 11, thánh lễ được cử hành tại Hố Nai, thuộc Giáo phận Xuân Lộc. Giám mục Ấn đã cùng đồng tế trong thánh lễ này.[24]

Cuối năm 1967 và đầu năm 1968, Tổng Tuyên uý Công giáo Hoa Kỳ là Đức ông Francis L. Sampson đã đến thăm Việt Nam trong khoảng thời gian 10 ngày. Trong khoảng thời gian ông này đến Việt Nam, Giám mục Lê Văn Ấn đã có cuộc gặp ngắn với ông.[25] Cuộc gặp diễn ra khi Sampson thăm Trung Tâm Tuyên Uý Công giáo Quốc gia.[26] Ngày 20 tháng 1 năm 1968, ông chủ sự thánh lễ tưởng nhớ cố Hồng y Francis Spellman cùng với 5 linh mục Mỹ và 5 linh mục Việt Nam. Tham dự buổi lễ có các đại diện từ chính quyền Việt Nam Cộng hòa và các lực lượng quân đội.[27]

Tháng 1 năm 1969, Giám mục Lê Văn Ấn tham gia nghi thức đặt viên đá đầu tiên chủ sự bởi Khâm sứ Tòa Thánh Angelo Palmas. Công trình được thực hiện nghi thức là một trung tâm giáo dục tên "Lux Mindi" tọa lạc tại Hố Nai, thuộc Giáo phận Xuân Lộc, được xây dựng trong nhiều năm khi có nguồn kinh phí, được tổ chức bởi một nhóm linh mục tị nạn gốc giáo phận Hải Phòng. Trung tâm gồm nhà thờ Công giáo ở trung tâm, cạnh một nhà thương và văn phòng giáo xứ. Quần thể công trình còn có trường học giảng dạy tất cả các cấp, ký túc xá nội trú, nhà dành cho giáo sư, trung tâm thủ công, vườn cây thí nghiệm, trại trẻ mồ côi,...[28]

Sau nhiều ngày bị bệnh nặng, giám mục Giuse Lê Văn Ấn từ trần tại Tổng y viện Cộng hòa Sài Gòn (nay là Viện Quân y 175) rạng sáng ngày 17 tháng 6 năm 1974, thọ 58 tuổi,[8][9] an táng trong hoa viên Tòa Giám mục Xuân Lộc.[10] Từ số giáo dân ban đầu là hơn 164.000 người, số liệu giáo dân giáo phận khi ông qua đời đã tăng lên con số 374.560 người trên tổng dân cư là 1.048.164 dân. Giáo phận năm 1974 có 155 giáo xứ, 218 linh mục triều, 25 linh mục dòng, 97 đại chủng sinh, 215 tiểu chủng sinh, 109 tu sĩ, 949 nữ tu, 168 trường trung – tiểu học.[16]

Giáo phận Xuân Lộc trống tòa sau khi Giám mục Lê Văn Ấn qua đời. Gần hai tháng sau khi ông qua đời, Tòa Thánh chọn giám mục kế nhiệm ông là Đa Minh Nguyễn Văn Lãng.[9]